Trong văn hóa của người Canaan cổ, các nơi cao thường được coi là linh thiêng, do đó cũng không ngoại trừ núi Carmel; Thutmose III ghi một mũi đất cao thiêng liêng trong lãnh thổ Canaan của ông, và nếu nó được coi ngang hàng với núi Carmel, như các nhà Ai Cập học (chẳng hạn như Maspero) tin tưởng, thì nó chỉ cho biết là núi đã được coi là thiêng liêng ít là từ thế kỷ 15 trước CN.[1] Theo sách các Vua, có một bàn thờ Yahweh (GiaVê) trên núi này, đã bị đổ nát trong thời Ahab, nhưng được tiên tri Elijah dựng lại.[16] Iamblichus mô tả Pythagoras tới thăm núi này vì tiếng tăm thiêng liêng của nó, nói rằng nó là núi thiêng liêng nhất trong các núi, và nhiều người bị cấm không được tới, trong khi Tacitus nói rằng có một oracle[17] trên núi này, mà Vespasian đã tới xin ý kiến;[2] Tacitus kể rằng có một bàn thờ ở đây,[1] nhưng không có ảnh tượng gì trên bàn thờ,[1][2] và không có một đền thờ nào chung quanh bàn thờ.[2]

Tiên tri Elijah

Trong xu hướng chủ đạo Do Thái giáo, Kitô giáo, và Hồi giáo[1] thì không thể phủ nhận là tiên tri Elijah có liên quan tới núi này, và ông được coi như thỉnh thoảng có cư ngụ trong một hang động trên núi. Trong sách các Vua, Elijah thách thức 450 tiên tri của thần Baal tới tranh cãi ở bàn thờ trên núi Carmel để xác định xem vị Chúa nào đích thực kiểm soát vương quốc Israel; vì chuyện kể được đặt trong thời cai trị của Ahab và sự liên kết của ông với các người Phoenicia, nên các học giả Kinh Thánh nghi ngờ vị thần Baal ở đây có thể là Melqart.[18]

Theo sách các Vua I (đoạn 18:22-39), thì việc thách thức là xem vị chúa nào có thể khiến lửa đốt cháy hy lễ (dâng trên đống củi). Sau khi các tiên tri của thần Baal kêu cầu thất bại, thì tiên tri đã kêu cầu Chúa của mình khiến lửa từ trời xuống đốt cháy hy lễ (là một con bò giết thịt) trên đống củi đã tưới đẫm nước. Trong trình thuật này, thì sau khi đốt cháy hy lễ, các đám mây tụ lại, bầu trời đen ngòm rồi mưa đổ xuống xối xả, chấm dứt kỳ hạn hán kéo dài.

Truyền thuyết Hồi giáo đặt núi này ở một điểm gọi là El-Maharrakah, nghĩa là sự thiêu đốt.[2] Năm 1958, các nhà khảo cổ học phát hiện một cái gì đó trên dãy núi này, giống như một bàn thờ, mà họ cho rằng có thể là bàn thờ của Elijah [cần dẫn nguồn].

Dòng Carmel

Một dòng tu Công giáo đã được thiết lập trên núi Carmel trong thế kỷ 12, gọi là dòng Carmel. Người sáng lập là một thánh Berthold nào đó (qua đời tại một nơi không biết rõ, sau năm 1185), ông này hoặc là một người hành hương hoặc một người Thập tự chinh. Dòng được thiết lập trên nơi được cho rằng từng là vị trí hang động của Elijah, ở đầu tây bắc của dãy núi, cao1.700 foot (520 m) trên mực nước biển;[1] đây - có thể không trùng hợp – cũng là điểm thiên nhiên cao nhất của toàn dãy núi. Mặc dù không có chứng cứ tài liệu, nhưng truyền thuyết dòng Carmel cho rằng một cộng đoàn các ẩn sĩ người Do Thái đã sống tại nơi này từ thời tiên tri Elijah tới khi lập dòng ở đây.

Một tu viện Stella Maris (tu viện Ngôi sao Biển) được thành lập ở địa điểm này ngay sau khi thành lập Dòng để cung hiến Maria dưới dạng Đức Bà, Ngôi sao Biển[1]. Vua Louis IX của Pháp đã từng tới thăm nơi này năm 1252.[2] Dòng Carmel lớn mạnh, trở thành một trong các dòng tu Công giáo chủ yếu trên khắp thế giới. Trong thời Thập tự chinh tu viện này thường hay đổi chủ (giữa người Kitô giáo và người Hồi giáo)[2]. Dưới thời người Hồi giáo kiểm soát, nơi này được gọi là El-Maharrakah, nghĩa là nơi thiêu đốt, có ý ám chỉ tới trình thuật tiên tri Elijah thách thức các tiên tri của thần Baal nói trên.[2] Năm 1799 tòa nhà được Napoléon biến thành một bệnh viện, nhưng năm 1821 nó bị phá hủy bởi pasha[19] của Damascus.[2] Sau đó một tu viện mới được xây dựng ngay trên hang động kế bên[2], hang đó nay hình thành hầm mộ dưới lòng nhà thờ của tu viện, được các tu sĩ gọi là hang Elijah.[2]

Tôn giáo Baha'i

Núi Carmel được coi như nơi thiêng liêng đối với tôn giáo Baha'i trên khắp thế giới và là địa điểm của Trung tâm Bahá'í thế giới (Bahá’i World Centre) và Đền thờ Báb. Vị trí các nơi thiêng liêng của đạo Baha'i bắt nguồn từ việc bỏ tù người sáng lập tôn giáo này, Bahá'u'lláh, gần Haifa bởi đế quốc Ottoman trong thời dế quốc Ottoman cai trị Palestine.

Đền thờ Báb là kiến trúc trong đó đặt di hài của Báb, người sáng lập Bábism[20] và người tiên phong của Bahá'u'lláh trong tôn giáo Baha'i. Vị trí chính xác của điện thờ trên núi Carmel do Bahá'u'lláh đích thân chỉ định và di hài của Báb được đặt yên nghỉ ngày 21.3.1909 trong một lăng tẩm gồm 6 phòng làm bằng đá địa phương. Kiến trúc của điện thờ với một mái vòm màu vàng bên trên lăng tẩm được hoàn thành năm 1953,[21] và một loạt dãy terraces trang trí chung quanh điện thờ được hoàn thành năm 2001. Các đá cẩm thạch màu trắng được sử dụng ở đây cũng lấy từ núi Penteliko (Hy Lạp) mà các kiệt tác của thành Athen đã dùng.

Bahá'u'lláh, người sáng lập đạo Bahá'í, viết trên các tấm văn bản Lawh-i-Karmil, chỉ định khu vực chung quanh điện thờ làm vị trí của Trung tâm Bahá'í thế giới, cơ quan quản lý của đạo này; các tòa nhà của Trung tâm Bahá'i thế giới được xây sát bên các terraces trang trí, và được coi là the Arc.

Cộng đồng Hồi giáo Ahmadiyya

Cộng đồng Hồi giáo Ahmadiyya có một đền thờ Hồi giáo lớn nhất Israel ở núi Carmel gọi là đền thờ Mahmood.